메뉴

#콘텐츠 모더레이션

TD
The Decoder • 3일 전
IMP 8

유튜브, 이번 달부터 AI 영상 자동 감지 라벨 도입

유튜브는 이번 달부터 AI가 생성하거나 심하게 변조한 영상에 대해 시스템이 자동으로 'AI 생성 콘텐츠' 라벨을 부착하는 기능을 도입합니다. 라벨이 부착되더라도 영상 추천이나 수익 창출에는 영향을 주지 않지만, 크리에이터의 의도적인 숨김을 방지하기 위한 플랫폼의 제재력이 강화되었다는 점에서 중요합니다. 또한, 구글은 딥페이크 문제에 대응하기 위해 모든 성인 크리에이터를 대상으로 초상권 탐지 도구(Likeness Detection)를 전면 개방합니다.

유튜브 AI 라벨링 딥페이크
TC
TechCrunch AI • 57일 전
IMP 7

AI 시대의 콘텐츠 모더레이션을 구축하는 전 페이스북 임원

전 페이스북 비즈니스 무결성 총괄 브렛 레벤슨(Brett Levenson)은 기존의 속도가 느리고 정확도가 떨어지는 수동 콘텐츠 모더레이션의 문제를 해결하기 위해 스타트업 'Moonbounce'를 설립했습니다. 이 회사는 자체적으로 학습된 대형 언어 모델(LLM)을 활용해 정적 문서인 정책을 실행 가능한 코드(Policy as Code)로 전환하여, 300밀리초 이내에 유해 콘텐츠를 판별하고 조치할 수 있는 초고속 모더레이션 기술을 제공합니다. 최근 1,200만 달러(약 160억 원)의 시리즈A 자금을 유치하며 AI 캐릭터 플랫폼 및 이미지 생성 AI 업계에서 안전성을 핵심 차별화 기능으로 만들고 있습니다.

콘텐츠 모더레이션 대형 언어 모델 안전 및 정책